Kerjaya King dibangkitkan oleh sahabatnya, iaitu Ketua Operasi Tentera Laut (CNO), Laksamana Harold "Betty" Stark, yang menyedari bakat King untuk pemerintahan telah dibazirkan di Lembaga Umum . Stark melantik King sebagai Panglima Tertinggi, Armada Atlantik pada musim gugur tahun 1940, dan beliau telah dinaikkan pangkat ke Laksamana pada Februari 1941. Pada 30 Disember 1941 beliau menjadi Panglima Tertinggi, Armada Amerika Syarikat. Pada 18 Mac 1942, beliau telah dilantik sebagai Ketua Operasi Tentera Laut (CNO), menggantikan Stark. Beliau adalah satu-satunya orang yang memegang serentak jawatan ini. Selepas mencapai usia 64 tahun pada 23 November 1942, beliau menulis mesej kepada Presiden Roosevelt untuk menyatakan yang beliau telah mencapai umur persaraan wajib. Roosevelt membalas dengan nota yang bertulis "So what, old top?". Pada 17 Disember, 1944 King telah dinaikkan pangkat ke pangkat yang baru diwujudkan iaitu Laksamana Armada. Beliau bersara dari tugas aktif pada 15 Disember 1945 tetapi dipanggil semula sebagai penasihat kepada Setiausaha Tentera Laut pada tahun 1950.